The global debate on the future of artificial intelligence: the need for international regulation and opportunities for German foreign policy

With the current developments in the field of artificial intelligence, the process of digitalisation has reached a new stage. Artificial intelligence makes it possible to analyse the large amounts of data collected today in completely new ways. Companies and countries are spending considerable resources to take advantage of these analytical possibilities. However, artificial intelligence is also dependent on the quality of the underlying data; it is completely unsuited for many tasks and has, so far, largely escaped human control. Germany should therefore use its influence in international forums to regulate the use of artificial intelligence in politically sensitive areas. In addition, the Federal Government should carefully examine on what data basis, for what purposes, and under what conditions artificial intelligence can make a contribution to the planning of foreign policy strategy. (author's abstract

Preventive regulation of autonomous weapon systems: need for action by Germany at various levels

The authors argue that in order for Germany to do justice to its claim of outlawing lethal autonomous weapon systems (LAWS) internationally, the Federal Government should first define the term "human control", for example in a strategic document from the Federal Ministry of Defence. The aim should be to facilitate the regulation of the development and use of LAWS - at the international level - thus making the issue of military robotics politically manageable. The international framework for negotiating the regulation of LAWS is currently the United Nations Convention on Certain Conventional Weapons. A Common Position of the EU member states that demands human control - or, better still, suggests proposals for its design - could have a decisive influence on the negotiations. (author's abstract

Combat drones - killing drones: a plea against flying Robots

Medium altitude, long endurance drones are becoming a component of regular air forces. However, the extent to which manned aircraft are being replaced by such "MALE UAVs" (MALE = Medium Altitude, Long Endurance, UAV = Unmanned Aerial Vehicle) remains unclear. At present Germany is faced with determining with what means the Luftwaffe should be equipped in the medium term (up to 2020) and long-term (post-2020). Beyond military considerations, there are cooperation and industrial policy issues to be taken into account, since no one individual state in Europe can or wants to provide the financial means to develop a national MALE UAV model. Although European industry has already launched research and development projects, their governments are by no means on board. Likewise it is also unclear whether drones are to be armed in future. Discussion has been continuing for some time as to how far targeted killings are responsible and permissible. In contrast, no fundamental debate has so far taken place about what the ethical consequences are of the trend towards automated combat. Such a debate is now overdue and urgent, as the momentum of technological development conceals the danger that human beings may abdicate moral responsibility in decisions over the use of force. (author's abstract

Die Weltraumpolitik der EU: zivile Flaggschiffe und Optionen für die GSVP

Die Raumfahrt besitzt wie kaum ein anderes Technologiefeld symbolische Strahlkraft bis in den Alltag hinein und vermag insofern die europäische Vision zu verkörpern: Frieden, Wohlstand und Zusammenarbeit im Dienste der Bürger. So ist die europäische Weltraumpolitik ein Testfall für den integrativen Willen der Europäischen Union (EU) und gleichzeitig Beispiel für institutionelle Komplexität. Mit dem Lissabon-Vertrag bekommt die Raumfahrt zwar größere Bedeutung für die EU, der Vertrag hat aber nicht mehr Klarheit über Strategien und Umsetzung der Weltraumpolitik geschaffen: denn sie soll in »geteilter Kompetenz« zwischen EU-Kommission und Mitgliedstaaten gestaltet werden. Dabei hat Weltraumpolitik in vielen Fällen indirekten oder gar direkten Bezug zur Gemeinsamen Sicherheits- und Verteidigungspolitik (GSVP) und rückt als deren mögliches Instrument in Zeiten sicherheitspolitischer Herausforderungen und knapper Kassen in den Vordergrund. Doch weder die EU-Kommission noch die ESA haben ein direktes politisches Mandat, Raumfahrtpolitik mit Bezug auf die GSVP zu gestalten. Angesichts der technologischen Fähigkeiten, die bei einer Verwirklichung der EU/ESA-Programme Sicherheits- und Verteidigungszwecken dienen könnten, stellt sich die Frage nach den Möglichkeiten für EU, ESA und ihren jeweiligen Mitgliedstaaten, diese Fähigkeiten koordiniert zu nutzen. Die Studie untersucht die zivilen und dabei sicherheitspolitisch relevanten Weltraumprogramme der EU und solche einzelner Mitgliedstaaten und gibt Empfehlungen, wie die Bundesregierung die Weltraumpolitik auf EU-Ebene strategisch nutzen und gestalten kann. Dabei kommt einer Partnerschaft mit Frankreich eine entscheidende Rolle zu, für deren inhaltliche Ausfüllung in der Studie exemplarische Kooperationsfelder aufgezeigt werden. (Autorenreferat

Außenpolitik der Dienste: die strategische Kommunikationsüberwachung und ihre Folgen

"Die Enthüllungen des Whistleblowers Edward Snowden haben offengelegt, dass die globale, anlasslose und massenhafte Überwachung der digitalen Kommunikation zum Kerngeschäft von Nachrichtendiensten geworden ist. Diese sogenannte "strategische Aufklärung", die auch Deutschland betreibt, hat aber außenpolitische Folgen und ist zum Teil mit traditionellen Normen und völkerrechtlichen Verpflichtungen der Staaten nicht vereinbar. Ein Verlust an Glaubwürdigkeit deutscher Außenpolitik lässt sich vermeiden, wenn die parlamentarische Kontrolle der Nachrichtendienste verbessert und ihr Auftrag wieder stärker auf anlassbezogene Datenerhebung und Analyse fokussiert wird. Nicht zuletzt sollte Deutschland sein Engagement bei den Vereinten Nationen (VN) für die Einhaltung der Menschenrechte auch auf den digitalen Raum ausdehnen." (Autorenreferat

Die Weltraumpolitik der EU: zivile Flaggschiffe und Optionen für die GSVP

"Die Raumfahrt besitzt wie kaum ein anderes Technologiefeld symbolische Strahlkraft bis in den Alltag hinein und vermag insofern die europäische Vision zu verkörpern: Frieden, Wohlstand und Zusammenarbeit im Dienste der Bürger. So ist die europäische Weltraumpolitik ein Testfall für den integrativen Willen der Europäischen Union (EU) und gleichzeitig Beispiel für institutionelle Komplexität. Mit dem Lissabon-Vertrag bekommt die Raumfahrt zwar größere Bedeutung für die EU, der Vertrag hat aber nicht mehr Klarheit über Strategien und Umsetzung der Weltraumpolitik geschaffen: denn sie soll in »geteilter Kompetenz« zwischen EU-Kommission und Mitgliedstaaten gestaltet werden. Dabei hat Weltraumpolitik in vielen Fällen indirekten oder gar direkten Bezug zur Gemeinsamen Sicherheits- und Verteidigungspolitik (GSVP) und rückt als deren mögliches Instrument in Zeiten sicherheitspolitischer Herausforderungen und knapper Kassen in den Vordergrund. Doch weder die EU-Kommission noch die ESA haben ein direktes politisches Mandat, Raumfahrtpolitik mit Bezug auf die GSVP zu gestalten. Angesichts der technologischen Fähigkeiten, die bei einer Verwirklichung der EU/ESA-Programme Sicherheits- und Verteidigungszwecken dienen könnten, stellt sich die Frage nach den Möglichkeiten für EU, ESA und ihren jeweiligen Mitgliedstaaten, diese Fähigkeiten koordiniert zu nutzen. Die Studie untersucht die zivilen und dabei sicherheitspolitisch relevanten Weltraumprogramme der EU und solche einzelner Mitgliedstaaten und gibt Empfehlungen, wie die Bundesregierung die Weltraumpolitik auf EU-Ebene strategisch nutzen und gestalten kann. Dabei kommt einer Partnerschaft mit Frankreich eine entscheidende Rolle zu, für deren inhaltliche Ausfüllung in der Studie exemplarische Kooperationsfelder aufgezeigt werden." (Autorenreferat

Robotik: ein Game-Changer für Militär und Sicherheitspolitik?

"In näherer bis mittelfristiger Zukunft werden Militärroboter menschliche Soldatinnen und Soldaten zunehmend unterstützen, sie teilweise sogar ersetzen. Bislang sind solche Vorgänge vor allem im begrenzten taktisch-operationellen Bereich zu beobachten; doch mehr und mehr wird sich das Aufgabenfeld den wachsenden technologischen Fähigkeiten der Robotik anpassen. Mit fortschreitender Automatisierung wachsen die Kompetenzen, die Robotern übertragen werden - diese agieren so zunehmend autonom. Im Zuge der Entwicklung werden Maschinen ein immer breiteres Spektrum an Tätigkeiten abdecken, so dass der menschliche Operateur nur noch übergeordnete Kontrollfunktionen wahrnimmt. Kommt es dabei zu autonomen maschinellen Entscheidungen, ob Waffengewalt anzuwenden ist, wird eine ethische Linie überschritten und eine grundsätzliche Frage nach der Qualität des Gewalteinsatzes aufgeworfen: Dürfen Maschinen über Leben und Tod von Menschen befinden? Auch aus militärischer Sicht müssten dann bislang geltende Prinzipien des Humanitären Völkerrechts maschinell umgesetzt werden, vor allem was das Gebot betrifft, zwischen Kombattant/innen und Zivilist/innen zu unterscheiden. Militärische Robotik könnte einen Paradigmenwechsel einläuten, der die Gleichungen und das Gleichgewicht der internationalen Sicherheitspolitik revolutioniert. Der Autor analysiert den Entwicklungsstand der Technologie, die Möglichkeiten ihres Einsatzes, die Auswirkungen auf strategisch-politische Entscheidungen -etwa das Für und Wider eines Militäreinsatzes überhaupt- und die zu erwartende Veränderung von Konfliktformen. Er empfiehlt der Bundesregierung, ihre internationalen Anstrengungen zur Verregelung der Technologie und ihres Einsatzes fortzuführen und zu verstärken." (Autorenreferat

Breite vor Tiefe: eine Fessel deutscher Verteidigungs- und Kooperationsplanung?

Streitkräfteplanungen stoßen immer an Grenzen, die durch finanzielle Ressourcen gesetzt sind. Nicht einmal steigende Budgets sind eine Garantie für eine ausgewogene Planung. Vor diesem Hintergrund ist es geboten, das seit 2013 vom Bundesministerium der Verteidigung etablierte Planungsprinzip "Breite vor Tiefe" zu überprüfen. Denn je breiter das Spektrum der in der Bundeswehr vorzuhaltenden Fähigkeiten ist, desto weniger nachhaltig - in der Sprache der militärischen Planer: durchhaltefähig - sind diese Kapazitäten. Breite und Tiefe verlangen aber nicht nur nationale finanzielle, sondern vor allem multinationale kooperative Anstrengungen. Noch lässt sich nicht erkennen, ob und wie die nationalen verteidigungspolitischen Entscheidungen in ein europäisches Gesamtkonzept einzupassen sind. Eine Betrachtung des "Framework Nation Concept" (FNC) und anderer Kooperationsmodelle legt nahe, dass die Defizite des "Breite vor Tiefe"-Ansatzes nur behoben werden können, wenn Deutschland mit seinen großen Partnern - vor allem mit Frankreich und dem Vereinigten Königreich - intensiver zusammenarbeitet. Dabei bleibt die Spannung zwischen Autonomie und Kooperationsfähigkeit ein Charakteristikum europäischer Verteidigungspolitik. (Autorenreferat

Präventive Regulierung autonomer Waffensysteme: Handlungsbedarf für Deutschland auf verschiedenen Ebenen

Autonome Waffensysteme bzw. Waffensysteme mit autonomen Funktionen - sogenannte Lethal Autonomous Weapon Systems (LAWS) - sind Waffen, die keine menschliche Intervention für die Auswahl und Bekämpfung des Ziels benötigen. Ermöglicht wird dies durch neuere Entwicklungen bei Sensor­technik, Rechenleistung und Softwarefähigkeiten. Besonders relevant sind hierbei mathematische Verfahren, die häufig unter dem Begriff "künstliche Intelligenz" zusammengefasst werden. Anja Dahlmann und Marcel Dickow beleuchten die Debatte um die Regu­lierung von LAWS auf internationaler, europäischer und nationaler Ebene und leiten daraus Handlungsempfehlungen für Bundestag und Bundes­regierung ab. Dabei haben sie drei Perspektiven im Blick: die technologisch-operationale, die rechtliche und die ethische. Die Autorin und der Autor argumentieren, dass die Bundesregierung, um ihrem Anspruch auf internationale Ächtung von LAWS gerecht zu werden, zunächst den Begriff "menschliche Kontrolle" ausdifferenzieren sollte, beispielsweise in einem Strategiedokument des Bundesministeriums der Verteidigung. Ziel sollte sein, eine Regulierung von Entwicklung und Einsatz von LAWS zu ermöglichen - und zwar auf internationaler Ebene - und damit das Thema militärische Robotik politisch handhabbar zu machen. Der völkerrechtliche Verhandlungsrahmen zur Regulierung von LAWS ist derzeit die Waffenkonvention der Vereinten Nationen. Ein Gemeinsamer Stand­punkt der EU-Mitgliedsstaaten, welcher die menschliche Kontrolle ein­fordert oder - besser noch - Vorschläge zu deren Ausgestaltung macht, könnte einen entscheidenden Einfluss auf die Verhandlungen haben. (Autorenreferat

Kampfdrohnen - Killing Drones: ein Plädoyer gegen die fliegenden Automaten

Drohnen mittlerer Flughöhe und langer Einsatzdauer entwickeln sich zu einem Bestandteil der regulären Luftstreitkräfte. Unklar ist allerdings noch das Ausmaß, in dem bemannte Flugzeuge durch solche "MALE-UAV" ersetzt werden (MALE = Medium Altitude, Long Endurance, UAV = Unmanned Aerial Vehicle). Deutschland steht derzeit vor der Entscheidung, mit welchen Mitteln die Luftwaffe mittelfristig (bis 2020) und langfristig (nach 2020) ausgestattet sein soll. Bei dieser Frage sind jenseits militärischer Erwägungen auch kooperations- und industriepolitische Aspekte zu berücksichtigen. Denn in Europa kann oder will kein einzelner Staat die finanziellen Mittel aufbringen, um ein nationales MALE-UAV-Modell zu entwickeln. Zwar hat die europäische Industrie bereits Forschungs- und Entwicklungsprojekte auf den Weg gebracht; doch die Regierungen sind noch nicht mit an Bord. Unklar ist ebenso, ob Drohnen künftig bewaffnet sein sollen. Seit geraumer Zeit wird diskutiert, inwiefern gezielte Tötungen verantwortbar und zulässig sind. Dagegen fehlt es bislang an einer grundsätzlichen Debatte darüber, welche ethischen Konsequenzen der Trend zur automatisierten Kriegsführung hat. Eine solche Auseinandersetzung ist aber dringend geboten, denn die Eigendynamik der technologischen Entwicklung birgt die Gefahr, dass der Mensch als moralischer Akteur abdankt, wenn über den Einsatz von Gewalt zu entscheiden ist. (Autorenreferat